Phường Long Toàn được thành lập vào ngày 2 tháng 6 năm 1994 trên cơ sở các thôn Long Toàn, Long Tân, Phước Hạnh thuộc thị trấn Bà Rịa cũ và 100 ha diện tích tự nhiên, 700 người của ấp Long An thuộc thị trấn Long Điền, huyện Long Đất.[1]

Sau khi thành lập, phường có 692 ha diện tích tự nhiên và 7.139 người.

Ngày 27 tháng 6 năm 2005, Chính phủ ban hành Nghị định 83/2005/NĐ-CP[3]. Theo đó:

• Điều chỉnh 71,40 ha diện tích tự nhiên và 1.171 người của phường Long Toàn về phường Phước Nguyên quản lý
• Điều chỉnh 5,14 ha diện tích tự nhiên và 224 người của phường Phước Nguyên về phường Long Toàn quản lý
• Điều chỉnh 13,07 ha diện tích tự nhiên và 357 người của phường Phước Trung về phường Long Toàn quản lý
• Thành lập phường Long Tâm trên cơ sở 358,47 ha diện tích tự nhiên và 4.125 người của phường Long Toàn.

Sau khi điều chỉnh địa giới hành chính, phường Long Toàn còn lại 271,74 ha diện tích tự nhiên và 7.948 người.